▋Azure聊天機器人實例

昨天討論到聊天機器人生成回覆需要透過LLM模型來完成，而且這個回覆是必須要遵守RAI道德規範的。今天我們將利用Prompt這個提示技巧，希望機器人的回覆能達到客製化的效果。

Prompt簡介

使用提示型模型時，使用者要輸入文字提示來與模型進行互動，而模型會使用文字完成對文字提示進行回應。雖然這些模型非常強大，但其行為也會對提示非常敏感。 這可讓提示建構成為開發的重要技能。提示建構可能很困難。在實務上，提示用來設定模型權數以完成所需的工作，但它比較是藝術而不是科學，通常需要體驗和直覺來製作成功的提示。

Prompt是提示的意思，也有人翻譯為詠唱，根據Azure提示工程簡介的介紹，我們可以將Prompt視為一門奠定於科學上的藝術行為，使用者就好比詠唱師，透過對聊天機器人施予詠唱的咒語來提供一定程度的提示，讓聊天機器人接受更清楚的指令，而有一條更明確的路徑能前進，從而回答出更貼近使用者需求的回覆。

Prompt技巧

1. 設定角色：透過角色的建立，機器人依照特定人設和使用者對話，機器人也可以依照對象不同，提供對應的說話方式。
2. 給予明確的指令：我們希望機器人幫忙作內容摘要、行程安排還是工具操作說明，下一個清楚明確的指令，機器人能更直接地提供適當的反饋。
3. 將大目標切成小任務：太龐大的目標，可能因為難度太大、層級太高讓機器人無所適從，試著將原先的大目標拆分成好幾個小任務，讓機器人逐一擊破，最後成功達標。
4. 善用列點、SOP流程：我們可以請機器人列點或者告訴機器人執行的SOP步驟，這樣的方式，可以幫助機器人產出一些他能做得到的小範圍回饋，而機器人也能以自己產出的回覆作為基礎，再更深入或者延伸回答更多的問題。

▋下回預告

下一篇我們要來實戰演練prompt的技巧，用ChatGPT來試看看prompt前prompt後有什麼差別。

▋參考資料

Adobe Firefly(AI圖片生成)
Azure提示工程簡介

▋後記

記得筆者去年使用GenAI時，初期結果不如預期，因而第一次接觸Prompt，當時覺得這個技巧好厲害，原來跟聊天機器人的溝通也是需要技巧的。求職網站上也開始愈來愈多詠唱師(Prompt engineer)的職缺，而不到一年的時間，prompt已經愈來愈普及了，一般的使用者也能透過簡單的提問技巧，來提高運用聊天機器人的成果，人人都可以成為詠唱大師。